Реклами в Instagram и Facebook за приложение deepfake съблечеха снимка на 16-годишната Джена Ортега
Facebook и Instagram хостваха реклами, които включваха замъглено фалшиво голо изображение на непълнолетна знаменитост, използвано за рекламиране на приложение, което се таксува като начин за създаване на сексуално явни изображения с изкуствен интелект.
Преглед на рекламната библиотека на Meta показа, че компанията зад приложението е пуснала 11 реклами, използващи манипулирана, замъглена снимка на актьора от "Сряда" Джена Ортега, заснет, когато тя е била на 16 години. Рекламите се появиха на двете платформи, както и на приложението Messenger през по-голямата част от февруари. Приложението, наречено Perky AI, рекламира, че може да съблича жени с изкуствен интелект.
Рекламите показват как приложението Perky може да промени тоалета на Ортега на снимката въз основа на текстови подкани, включително „латекс костюм“, „бельо на Батман“ и накрая „Без дрехи“.
Приложението обеща, че може да прави изображения „NSFW“ — стенограма за „не е безопасно за работа“ и означава голо или сексуално открито.
Компанията посочен като разработчик на приложението Perky AI, се нарича RichAds. Уебсайтът на RichAds нарича компанията „глобална рекламна мрежа за самообслужване“, предлагаща на компаниите начини за създаване на „насочени реклами“ и други видове изскачащи реклами и известия. Адресът на компанията е в Кипър и компанията не отговори на искане за коментар.
След като NBC News се свърза с Meta, тя спря страницата на приложението Perky, която работеше повече от 260 различни реклами в платформите на Meta от септември. Не е ясно колко хора са гледали рекламите, но една от рекламите на Ортега в Instagram има над 2600 гледания. Тридесет от тези реклами преди това бяха спрени, тъй като не отговарят на рекламните стандарти на Meta, но не и тези, които показват непълнолетната снимка на Ортега. NBC News не можа да види рекламите, които Meta вече спря. Някои от другите скорошни реклами на приложението Perky, които Мета не свали, докато NBC News не се свързаха, включваха снимка на певицата Сабрина Карпентър, направена, когато тя беше в началото на 20-те си години, заедно със същото твърдение, че я кара да изглежда гола. Представители на Ортега и Карпентър не отговориха на исканията за коментар.
„Meta строго забранява детска голота, съдържание, което сексуализира деца, и услуги, предлагащи генерирани от AI голи изображения без съгласие,“ Райън Даниелс, говорител на Meta, каза в изявление.
Apple също премахна приложението Perky, което беше рекламирано от своя App Store, след като NBC News се свърза с него. Приложението изглежда не е налично в Google Play.
Не е ясно дали приложението Perky е успяло да пуска реклами на други платформи, тъй като повечето компании не архивират публично своите реклами като Meta го прави.
Рекламите са част от нарастващата криза онлайн, където фалшивите голи изображения на момичета и жени, както и фалшивите видеоклипове с явен сексуален характер, се разпространиха широко благодарение на нарастващата наличност на инструменти като този, идентифициран от NBC News. През 2023 г. са били публикувани повече видеоклипове с явен сексуален произход без съгласие, отколкото всяка друга година взети заедно, според независимо проучване на анализатора на deepfake Genevieve Oh и MyImageMyChoice, група за застъпничество на жертвите на deepfake. Същото изследване установи, че Ортега е сред 40-те най-насочвани жени-знаменитости в най-големия уебсайт за deepfake.
Миналата седмица полицията в Бевърли Хилс, Калифорния, започна разследване на ученици от средното училище, които учат служители казаха, че използват такива инструменти, за да направят фалшиви голи снимки на свои също толкова млади съученици. NBC News също съобщи миналата седмица, че някои водещи резултати от търсенето с Google и Bing включват манипулирани изображения, изобразяващи детски лица върху голи възрастни тела.
Изображения и видеоклипове, които фалшиво изобразяват хора като голи или участващи в явно сексуални прояви поведение циркулират онлайн в продължение на десетилетия, но с използването на инструменти с изкуствен интелект такива материали изглеждат по-реалистично и са по-лесни за създаване и разпространение от всякога. Когато подвеждащите медии се създават с изкуствен интелект, те често се наричат „deepfake“.
Неконсенсусните сексуално явни deepfakes са предимно насочени към жени и момичета. Възрастните жертви са изправени пред правна сива зона, докато защитата срещу компютърно генериран сексуално явен материал на деца не винаги е била прилагана.
Apple няма никакви правила за дълбоко фалшиви приложения, но нейният App Store насоките забраняват приложения, които включват порнография, както и приложения, които създават „клеветническо, дискриминационно или подло съдържание“ или са „вероятно да унижат, сплашат или навредят на целево лице или група“.
Според Apple, приложението Perky AI вече е било отхвърлено от App Store на 16 февруари за нарушаване на правилата относно „явно сексуални или порнографски материали“. Приложението беше под 14-дневен период на преглед, когато NBC News се свърза с него, но все още беше достъпно за изтегляне и използване през това време. Оттогава Apple заяви, че е премахнала приложението Perky от своя магазин и е спряла компанията зад него от своята програма за разработчици.
Приложението все още може да се използва от хора, които вече са го изтеглили. Таксува $7,99 на седмица или $29,99 за 12 седмици. Когато NBC News се опита да използва приложението, за да редактира снимка, се изисква плащане, за да се видят резултатите. Преди да бъде премахнато от App Store на Apple, приложението имаше оценка от 4,1 звезди с 278 отзива.
Kat Tenbarge
